迦勒底人属于塞姆语系的一个游牧部落，他们于公元前10世纪初来到两河流域南部定居，随后亚述帝国征服并统治了两河流域南部，迦勒底人曾多次起义反抗亚述的统治。

公元前626年，亚述人派迦勒底人领袖那波帕拉沙尔率军驻守巴比伦，他到巴比伦后，却发动反对亚述统治的起义，建立新巴比伦王国，并与伊朗高原的米底王国联合，共同对抗亚述。公元前612年，亚述帝国结束，遗产被新巴比伦王国及米底王国瓜分，其中新巴比伦王国分取了亚述帝国的西半壁河山，即两河流域南部、叙利亚、巴勒斯坦及腓尼基。

公元前20世纪末，当阿拉美亚人向两河流域推进时，迦勒底人亦随之侵入两河流域。公元前11世纪中叶，他们在巴比伦尼亚南部靠近波斯湾的一带地方定居了下来。最初，他们对城市的重要性认识不足，因而许多城市，诸如乌鲁克、尼普尔、西帕尔和库利伽勒祖等均被其摧毁。

公元前9世纪时，迦勒底人形成了若干小王国式的部落联盟。巴比伦尼亚的原有居民无力阻止迦勒底人在南部两河流域的渗透。逐渐地，迦勒底人把自己看作是这片拥有古老文明的土地的主人，是古巴比伦王国传统的合法继承者。

公元前732年，巴比伦发生王位争夺，一个迦勒底人的领袖成了巴比伦王。亚述国王梯格拉特帕拉沙尔三世借机进行干涉，吞并了巴比伦尼亚。

公元前729年亚述帝国征服古巴比伦王国并统治了两河流域南部，迦勒底人曾多次起义反抗亚述的统治，并与埃兰和埃及等联合反对亚述。

公元前721年，南部迦勒底地区的比特一雅金的统治者马尔都克一阿帕尔一伊狄那宣布自己为巴比伦尼亚之王，并同埃兰人结盟，在底格里斯河上的捷尔打败了亚述。他还将原有巴比伦尼亚贵族投入监狱，将其土地分给迦勒底人。但起义被辛那赫里布镇压。

后来，马尔都克—阿帕尔一伊狄那再度起义，并与埃兰人、阿拉伯人、埃及人、阿拉美亚人、腓尼基人结盟。只是这个联盟过于松散，而且巴比伦的原有居民反对起义，使起义再次失败，巴比伦城被毁。阿萨尔哈东统治晚期，让幼子亚述巴纳帕尔继承王位，而让长子沙马什一苏姆金作巴比伦王。

沙马什一苏姆金显然不服，于是在一部分亚述贵族支持下起义反对亚述巴纳帕尔。这得到巴比伦和迦勒底贵族的支持。他还联合了阿拉伯人、阿拉美亚人、吕底亚人，埃兰人、和埃及人。但联军遭到失败，沙马什一苏姆金被围在巴比伦城内达三年之久，后自焚而死。

公元前626年，被亚述人任命为巴比伦尼亚总督的迦勒底人领袖那波帕拉沙尔起义反抗亚述，建立了新巴比伦王国。但巴比伦尼亚的一些大城市，如尼普尔、乌鲁克等有强烈的亲亚述倾向，那波帕那沙尔在很长时期里只能占领巴比伦尼亚北部，且未能夺取城市。他对乌鲁克和尼普尔进行了长期围困，公元前616年，乌鲁克被攻克；过了一年，即公元前615年，尼普尔也被那波帕那沙尔占领。于是新巴比伦王国统治了整个巴比伦尼亚。

随后，新巴比伦王国同伊朗高原的米底王国结盟，发动了反对亚述的战争。公元前612年，联军攻陷亚述首都尼尼微，灭亡了亚述帝国。胜利者瓜分了亚述帝国的遗产：米底王国占有了亚述本土和哈兰地区；新巴比伦王国则分取了亚述帝国的其余地区——两河流域南部、叙利亚、巴勒斯坦及腓尼基，重建新巴比伦王国（公元前626~前538年），也叫迦勒底王国。

不过，埃及人认为这一部分地区是它的属地，因而这些地区还有待新巴比伦王国去夺取。